Beliau rapat dengan Tan Sri Senu Abdul Rahman, Fatimah Hashim dan Tunku Abdul Rahman. Sesiapa sahaja menyukainya kerana beliau pandai berjenaka di samping akalnya. Beliau dan cikgu Senu pernah mementaskan drama sebabak di Alor Setar. Mereka juga menubuhkan 'Rumah Miskin' untuk membantu golongan fakir miskin. Pertubuhan SABERKAS (Sayang Akan Bangsa, Ertinya Korban Apa Segala) ditubuhkan di Kedah semasa penjajahan Jepun bagi mendapatkan kemerdekaan.

Apabila Tunku Abdul Rahman terpilih sebagai Presiden UMNO pada 25 Ogos 1951 dalam Mesyuarat Agung UMNO di Hotel Majestic, Kuala Lumpur. Pengasas UMNO, Dato Onn Jaafar meninggalkan UMNO dan menubuhkan IMP. Khir Johari menjadi Setiausaha Agung UMNO selepas pilihan raya 1955.

Beliau bertanding dalam pilihan raya 1955, 1959, 1964 dan 1969 di Kedah Tengah yang kemudian pada 1978 ditukar nama kepada Kuala Kedah, Kedah dari 1955 hingga 1982. Semasa pilihan raya 1969, gambar beliau dan isterinya berpakaian tradisi Cina telah dijadikan isu kempen parti pembangkang terutama PAS. Khir Johari juga menghantar kad ucapan Tahun Baru Cina kepada rakan-rakan Cinanya. Sebenarnya gambar itu diambil semasa lawatan beliau ke Hong Kong.[perlu rujukan] Semasa Peristiwa 13 Mei 1969, beliau dan Tunku berada di Kedah meraikan kemenangan UMNO di sana.[3]

Mohamed Khir pernah menjawat beberapa jawatan penting dalam politik termasuk menjadi Setiausaha Agung UMNO. Beliau dilantik menganggotai Kabinet kerajaan pimpinan Tunku Abdul Rahman sebagai Menteri Pelajaran Malaysia pertama negara pada tahun 1957. Beliau adalah antara anggota Kabinet kerajaan paling lama berkhidmat iaitu sejak 1950-an sebelum bersara pada 1976.